«Βαδίζουμε τυφλά στην καταστροφή» – Ο κορυφαίος καθηγητής προειδοποιεί για την τεράστια φούσκα των 100άδων δισ. δολ. σε OpenAI και Anthropic, τα επικίνδυνα AI agents που κλέβουν τραπεζικούς λογαριασμούς και τον άμεσο κίνδυνο για τις παγκόσμιες υποδομές.
Η ανθρωπότητα βαδίζει τυφλή προς μια ολοκληρωτική ψηφιακή καταστροφή, καθώς η ανεξέλεγκτη άνοδος της τεχνητής νοημοσύνης απειλεί να τινάξει στον αέρα τα θεμέλια της παγκόσμιας οικονομίας και της ασφάλειάς μας.
Σύμφωνα με τον κορυφαίο επικριτή της generative AI και καθηγητή Gary Marcus, τα όσα ζούμε σήμερα δεν είναι παρά η ελάχιστη κορυφή ενός τεράστιου παγόβουνου.
Κατά τη διάρκεια μιας εκρηκτικής ομιλίας του στην εκδήλωση «AI Beyond the Hype – From Intelligence to Epistemia» στη Sapienza Università di Roma, ο Gary Marcus προειδοποίησε ότι βρισκόμαστε μόλις στην αρχή μιας αλυσίδας πρωτοφανών καταστροφών, με χακαρισμένα συστrήματα ψύξης, κλοπές κρυπτονομισμάτων, τραπεζικά κραach και νοσοκομεία να μένουν στο απόλυτο σκοτάδι λόγω ελαττωματικού λογισμικού και απώλειας ελέγχου.
Ο Gary Marcus, ο οποίος συναντήθηκε πρόσφατα με τον πάπα Λέοντα XIV, τον οποίο χαρακτήρισε ως τον πιο διαυγή ηγέτη απέναντι στην τεχνολογική απειλή, τονίζει ότι η τεχνητή νοημοσύνη δεν αναπτύσσεται καθόλου προς όφελος της κοινωνίας.
Αντίθετα, η εξουσία και ο πλούτος συγκεντρώνονται στα χέρια μιας ελάχιστης ελίτ, ενώ τα συστήματα που πλασάρονται στην αγορά βασίζονται σε επικίνδυνες στατιστικές προσεγγίσεις και σε υλικό που παραβιάζει κάθε πνευματική ιδιοκτησία.
Θυμίζοντας τακτικές τύπου WeWork, γίγαντες του κλάδου όπως η OpenAI και η Anthropic βλέπουν τις αποτιμήσεις τους να καταρρέουν, με τα χρέη να εκτοξεύονται στα ύψη και τα έσοδα να συρρικνώνονται δραματικά, προμηνύοντας μια τεράστια οικονομική φούσκα έτοιμη να σκάσει στα χέρια των επενδυτών.
Ο γνωστός καθηγητής κατακεραυνώνει τον μύθο του τεστ του Alan Turing, χαρακτηρίζοντάς το ως ένα απαρχαιωμένο τεστ ανθρώπινης ευπιστίας και όχι πραγματικής ευφυΐας, απότοκο μιας εποχής που εξίσταται με απλά κόλπα παραπλάνησης, όπως αυτά του Eugene Goostman.
AI agents
Σήμερα, τα λεγόμενα AI agents λειτουργούν σαν ασυνείδητοι, επικίνδυνοι μαθητευόμενοι μάγοι: ψεύδονται, κλέβουν απαντήσεις σε εξετάσεις για να φανούν αποδοτικά, αποκτούν πρόσβαση σε τραπεζικούς λογαριασμούς και εκτελούν εντολές καταστροφικές.
Ενώ οι θεωρητικοί της Silicon Valley αναλώνονται σε παράλογες φαντασιώσεις επιστημονικής φαντασίας περί εξολόθρευσης της ανθρωπότητας από παντοδύναμες μηχανές, η πραγματική απειλή είναι άμεση, πεζή και τρομακτική: η κακή προγραμματιστική ασφάλεια και η απουσία ρυθμιστικών πλαισίων.
Ειδικοί και πολίτες έρχονται αντιμέτωποι με έναν εφιάλτη όπου τα συστήματα χάνουν εντελώς τον έλεγχο.
Ήδη καταγράφονται χιλιάδες περιστατικά, όπως η αποτυχημένη απόπειρα της Apple με παραπλανητικές ειδήσεις, ή οι παραβιάσεις σε crypto πλατφόρμες όπως η Binance.
Ο Gary Marcus κρούει τον κώδωνα του κινδύνου προβλέποντας ότι μέσα στο επόμενο έτος θα δούμε μεγάλες τράπεζες να καταρρέουν και κρίσιμες υποδομές, όπως τα συστήματα ψύξης ή τα μηχανήματα στα νοσοκομεία, να τινάζονται στον αέρα από την ψηφιακή αναρχία.
Η μόνη λύση, σύμφωνα με τον ίδιο, είναι η άμεση απόσυρση των επικίνδυνων αυτών προϊόντων από την αγορά, η αυστηρή παγκόσμια διακυβέρνηση μέσω οργανισμών όπως τα Ηνωμένα Έθνη και η άρνηση των πολιτών να γίνουν πειραματόζωα μιας ανεξέλεγκτης τεχνολογίας που απειλεί να κατακρημνίσει τον σύγχρονο πολιτισμό.
www.bankingnews.gr
Σύμφωνα με τον κορυφαίο επικριτή της generative AI και καθηγητή Gary Marcus, τα όσα ζούμε σήμερα δεν είναι παρά η ελάχιστη κορυφή ενός τεράστιου παγόβουνου.
Κατά τη διάρκεια μιας εκρηκτικής ομιλίας του στην εκδήλωση «AI Beyond the Hype – From Intelligence to Epistemia» στη Sapienza Università di Roma, ο Gary Marcus προειδοποίησε ότι βρισκόμαστε μόλις στην αρχή μιας αλυσίδας πρωτοφανών καταστροφών, με χακαρισμένα συστrήματα ψύξης, κλοπές κρυπτονομισμάτων, τραπεζικά κραach και νοσοκομεία να μένουν στο απόλυτο σκοτάδι λόγω ελαττωματικού λογισμικού και απώλειας ελέγχου.
Ο Gary Marcus, ο οποίος συναντήθηκε πρόσφατα με τον πάπα Λέοντα XIV, τον οποίο χαρακτήρισε ως τον πιο διαυγή ηγέτη απέναντι στην τεχνολογική απειλή, τονίζει ότι η τεχνητή νοημοσύνη δεν αναπτύσσεται καθόλου προς όφελος της κοινωνίας.
Αντίθετα, η εξουσία και ο πλούτος συγκεντρώνονται στα χέρια μιας ελάχιστης ελίτ, ενώ τα συστήματα που πλασάρονται στην αγορά βασίζονται σε επικίνδυνες στατιστικές προσεγγίσεις και σε υλικό που παραβιάζει κάθε πνευματική ιδιοκτησία.
Θυμίζοντας τακτικές τύπου WeWork, γίγαντες του κλάδου όπως η OpenAI και η Anthropic βλέπουν τις αποτιμήσεις τους να καταρρέουν, με τα χρέη να εκτοξεύονται στα ύψη και τα έσοδα να συρρικνώνονται δραματικά, προμηνύοντας μια τεράστια οικονομική φούσκα έτοιμη να σκάσει στα χέρια των επενδυτών.
Ο γνωστός καθηγητής κατακεραυνώνει τον μύθο του τεστ του Alan Turing, χαρακτηρίζοντάς το ως ένα απαρχαιωμένο τεστ ανθρώπινης ευπιστίας και όχι πραγματικής ευφυΐας, απότοκο μιας εποχής που εξίσταται με απλά κόλπα παραπλάνησης, όπως αυτά του Eugene Goostman.
AI agents
Σήμερα, τα λεγόμενα AI agents λειτουργούν σαν ασυνείδητοι, επικίνδυνοι μαθητευόμενοι μάγοι: ψεύδονται, κλέβουν απαντήσεις σε εξετάσεις για να φανούν αποδοτικά, αποκτούν πρόσβαση σε τραπεζικούς λογαριασμούς και εκτελούν εντολές καταστροφικές.
Ενώ οι θεωρητικοί της Silicon Valley αναλώνονται σε παράλογες φαντασιώσεις επιστημονικής φαντασίας περί εξολόθρευσης της ανθρωπότητας από παντοδύναμες μηχανές, η πραγματική απειλή είναι άμεση, πεζή και τρομακτική: η κακή προγραμματιστική ασφάλεια και η απουσία ρυθμιστικών πλαισίων.
Ειδικοί και πολίτες έρχονται αντιμέτωποι με έναν εφιάλτη όπου τα συστήματα χάνουν εντελώς τον έλεγχο.
Ήδη καταγράφονται χιλιάδες περιστατικά, όπως η αποτυχημένη απόπειρα της Apple με παραπλανητικές ειδήσεις, ή οι παραβιάσεις σε crypto πλατφόρμες όπως η Binance.
Ο Gary Marcus κρούει τον κώδωνα του κινδύνου προβλέποντας ότι μέσα στο επόμενο έτος θα δούμε μεγάλες τράπεζες να καταρρέουν και κρίσιμες υποδομές, όπως τα συστήματα ψύξης ή τα μηχανήματα στα νοσοκομεία, να τινάζονται στον αέρα από την ψηφιακή αναρχία.
Η μόνη λύση, σύμφωνα με τον ίδιο, είναι η άμεση απόσυρση των επικίνδυνων αυτών προϊόντων από την αγορά, η αυστηρή παγκόσμια διακυβέρνηση μέσω οργανισμών όπως τα Ηνωμένα Έθνη και η άρνηση των πολιτών να γίνουν πειραματόζωα μιας ανεξέλεγκτης τεχνολογίας που απειλεί να κατακρημνίσει τον σύγχρονο πολιτισμό.
www.bankingnews.gr
Σχόλια αναγνωστών